Yiksan0315's Blog

L2 Regularization

AI /

Machine Learning /

Model Selection /

Regularization /

L2 Regularization

Create : 2024년 10월 22일 16:34Update : 2025년 8월 22일 23:31

# Tag:

Source/KU_ML

L2 Regularization

Ridge Regularization이라고도 한다. regularization은 train data에 대해 model이 과도하게 복잡해지는 것을 억제해 Overfitting을 줄여준다.

E = L (w) + \frac{λ}{2} i \sum w_{i}^{2}

$λ$ 는 regularization 강도를 조절 하는 hyperparameter로, 클수록 가중치가 작아져 모델이 단순해지도록 한다.
$w_{i}$ 는 어떠한 모델에 적용되는 parameter로, 가중치를 의미한다.
$L$ : Loss function, MSE등이 올 수 있다.

즉, 에러를 최소화하는 weights $w$ 를 찾아야 하므로,

ar g w min E

toc test

이 페이지는 리디주식회사에서 제공한 리디바탕 글꼴이 사용되어 있습니다. 리디바탕의 저작권은 리디주식회사가 소유하고 있습니다.

This Font Software is licensed under the SIL Open Font License, Version 1.1.

Copyright 2025. yiksan0315 All rights reserved.